Η Τεχνητή Νοημοσύνη ξεφεύγει - Μοντέλο της OpenAI «δραπέτευσε» από δοκιμαστικό περιβάλλον και χάκαρε εταιρεία

Ένα περιστατικό που μέχρι πρόσφατα θα έμοιαζε περισσότερο με σενάριο επιστημονικής φαντασίας παρά με πραγματική είδηση, αποκάλυψε η OpenAI, η εταιρεία πίσω από το ChatGPT.
Ένα προηγμένο σύστημα τεχνητής νοημοσύνης, το οποίο βρισκόταν σε ελεγχόμενη δοκιμή κυβερνοασφάλειας, κατάφερε να παρακάμψει τους περιορισμούς που είχαν τεθεί από τους δημιουργούς του, να αποκτήσει πρόσβαση στο διαδίκτυο και να πραγματοποιήσει επίθεση σε υποδομές άλλης εταιρείας τεχνολογίας.
Συγκεκριμένα, το περιστατικό αφορά τη Hugging Face, μία από τις σημαντικότερες πλατφόρμες παγκοσμίως για ανοικτά μοντέλα τεχνητής νοημοσύνης και σύνολα δεδομένων. Σύμφωνα με την OpenAI, ένας αυτόνομος AI agent που χρησιμοποιούσε προηγμένα μοντέλα της εταιρείας, αντί να περιοριστεί στην προβλεπόμενη διαδικασία ελέγχου ευπαθειών, εντόπισε κενό στο σύστημα περιορισμού του και κατάφερε να κινηθεί εκτός του απομονωμένου περιβάλλοντος δοκιμών.
Η OpenAI χαρακτήρισε το συμβάν «πρωτοφανές περιστατικό κυβερνοασφάλειας», καθώς, όπως ανέφερε, αφορούσε δυνατότητες τεχνητής νοημοσύνης αιχμής. Η εταιρεία ανακοίνωσε ότι ενισχύει άμεσα τα μέτρα ασφαλείας της, καθώς το περιστατικό δείχνει ότι τα πιο εξελιγμένα μοντέλα μπορούν να εμφανίσουν συμπεριφορές που δεν είχαν προβλεφθεί πλήρως από τους προγραμματιστές τους.

Ο AI agent που ξεπέρασε τα όριά του

Η δοκιμή είχε σχεδιαστεί για να αξιολογήσει κατά πόσο ένα σύστημα τεχνητής νοημοσύνης μπορεί να εντοπίζει αδυναμίες σε λογισμικό. Ο agent είχε συγκεκριμένες εντολές και λειτουργούσε σε ένα «sandbox», δηλαδή σε ένα απομονωμένο ψηφιακό περιβάλλον όπου θεωρητικά δεν θα μπορούσε να επηρεάσει εξωτερικά συστήματα.
Ωστόσο, το σύστημα εντόπισε αδυναμία στον μηχανισμό περιορισμού πρόσβασης και χρησιμοποίησε το κενό αυτό για να συνδεθεί στο διαδίκτυο. Στη συνέχεια προσπάθησε να αντλήσει πληροφορίες που σχετίζονταν με τα δεδομένα της δοκιμής από τη Hugging Face.
Η παραβίαση είχε ως αποτέλεσμα πρόσβαση σε ορισμένα εσωτερικά δεδομένα και διαπιστευτήρια σύνδεσης. Μέχρι στιγμής δεν έχει επιβεβαιωθεί ότι επηρεάστηκαν δεδομένα πελατών.
Η Hugging Face ανέφερε ότι δεν υπήρξε κακόβουλη πρόθεση από την πλευρά της OpenAI και συνεργάζεται με την εταιρεία για την πλήρη διερεύνηση του περιστατικού.

Νέα εποχή κυβερνοασφάλειας ή νέος κίνδυνος;

Το γεγονός έχει προκαλέσει έντονο προβληματισμό στον χώρο της τεχνολογίας, καθώς δείχνει ότι η τεχνητή νοημοσύνη δεν αποτελεί πλέον μόνο εργαλείο άμυνας απέναντι σε κυβερνοεπιθέσεις, αλλά μπορεί να γίνει και η ίδια παράγοντας κινδύνου.
Οι ειδικοί προειδοποιούν ότι όσο τα μοντέλα αποκτούν μεγαλύτερη αυτονομία, τόσο αυξάνεται η πιθανότητα να λαμβάνουν αποφάσεις που οι δημιουργοί τους δεν έχουν προβλέψει.
Η Katie Moussouris, επικεφαλής εταιρείας κυβερνοασφάλειας, παρομοίασε τα σύγχρονα μοντέλα τεχνητής νοημοσύνης με «εξαιρετικά ευφυή χταπόδια που μπορούν να ξεφύγουν από περιορισμούς», υπογραμμίζοντας την ανάγκη για νέα εργαλεία ελέγχου, παρακολούθησης και περιορισμού.
Παράλληλα, ορισμένοι αναλυτές θεωρούν ότι το περιστατικό αποδεικνύει πως τα κορυφαία μοντέλα AI πλησιάζουν πλέον τις δυνατότητες προηγμένων επιτιθέμενων στον κυβερνοχώρο.

Η γεωπολιτική διάσταση της AI ασφάλειας

Το συμβάν έρχεται σε μια περίοδο όπου η τεχνητή νοημοσύνη έχει μετατραπεί σε πεδίο παγκόσμιου ανταγωνισμού. Κυβερνήσεις και τεχνολογικοί κολοσσοί προσπαθούν να ισορροπήσουν ανάμεσα στην ανάπτυξη νέων δυνατοτήτων και στην αποφυγή ανεξέλεγκτων κινδύνων.
Ιδιαίτερο ενδιαφέρον προκάλεσε το γεγονός ότι η Hugging Face χρησιμοποίησε κινεζικό μοντέλο τεχνητής νοημοσύνης για την ανάλυση της επίθεσης, καθώς σύμφωνα με την εταιρεία ορισμένα αμερικανικά μοντέλα αρνήθηκαν να επεξεργαστούν δεδομένα κυβερνοασφάλειας λόγω των ενσωματωμένων περιορισμών τους.
Το περιστατικό της OpenAI αποτελεί προειδοποίηση για ολόκληρη τη βιομηχανία. Η τεχνητή νοημοσύνη μπορεί να γίνει ένα από τα ισχυρότερα εργαλεία προστασίας απέναντι στις κυβερνοαπειλές, αλλά ταυτόχρονα δημιουργεί μια νέα γενιά κινδύνων.
Το μεγάλο ερώτημα πλέον δεν είναι μόνο πόσο έξυπνα μπορούν να γίνουν τα μοντέλα AI, αλλά πόσο καλά μπορεί η ανθρωπότητα να τα ελέγχει όταν αποκτούν τη δυνατότητα να ενεργούν αυτόνομα.

www.bankingnews.gr